印度大选已成AI试验田？选民：虚假信息太多！

科睿国际观察

这是科睿研究院第167篇原创内容。

字数2631字，阅读全文大约需要6分钟。

4月19日，被誉为“全球最大规模选举”的印度议会下院（人民院）选举正式启动。

这场为期6周的马拉松式选举，对印度选民而言，注定是一次不同寻常的体验。在这个数字化时代，社交平台成为了新的选举战场。

打开社交平台，你或许就会听到“总理莫迪”亲切地呼唤你的名字，诚邀你为他和他所代表的政党投下宝贵的一票。这正是人工智能（AI）技术在选举领域的一次创新应用。

然而，随着人工智能在政治舞台上大放异彩，不少专家开始对其可能带来的风险表示担忧。AI技术的广泛应用，虽然带来了诸多便利，但同时也几乎没有任何防护措施可以防止其被滥用。在这个信息爆炸的时代，真实信息和合成信息交织在一起，让选民们越来越难以分辨。

这是一场科技与民主的较量，也是一次对人性与智慧的考验。

AI政客的到来

近日，印度总理莫迪的“数字人”形象在社交平台上意外现身，但其制作来源仍是个谜。与此同时，莫迪所属的印人党工作人员正巧妙地利用这一新兴技术，通过社交平台向特定选民发送个性化的虚拟人物视频。在视频中，这些“AI政客”不仅向选民介绍政府的各项福利，还邀请他们为莫迪投票。

据《纽约时报》报道，一位年仅33岁的印人党成员拉托尔（Shakti Singh Rathore），为了扩大莫迪的计划和政策的影响力，决定借助AI技术打造属于自己的“数字人”。为了实现这一创意，拉托尔联系了人工智能初创公司The Indian Deepfaker的创始人贾杜恩（Divyendra Singh Jadoun）。

在绿幕前，拉托尔紧张地准备录制。贾杜恩鼓励他：“只要看着镜头说话，就好像对方就坐在你面前一样。”

“印度造假王”贾杜恩

在几分钟的信息采集后，贾杜恩掌握了宝贵的素材。凭借开源AI系统和自己编写的代码，他巧妙地将拉托尔的声音和图像分解，逐一收集他的面部特征数据。这些数据包括他的脸型和嘴唇的大小，还有他那充满魅力的目光。贾杜恩将这些数据集输入AI模型，让机器深度学习并预测面部模式。

“我需要不断地调试，微调每一个细节，直到得到最完美的面部表情。”贾杜恩解释道。

在印度这个语言多元化的国家，这些AI生成的视频具有神奇的力量。它们能够消除语言的障碍，自动翻译成印度选民所使用的几十种语言中的任何一种，确保竞选信息能够触达各个群体。

不仅如此，AI聊天机器人还以政治人物的真实声音和口吻给选民打电话，寻求他们的支持。

拉托尔表示：“过去，政党代表给选民打电话时，他们往往会直接挂断。但现在，当‘地方领导人’以选民熟悉的声音说出他们的名字时，他们立刻就会认真倾听。”

AI技术在政治宣传中的应用，不仅让竞选信息更加普及，还大大提高了传播效率。与传统竞选活动相比，这种新型的宣传方式不仅节约了时间和资金成本，还可能成为选举中不可或缺的重要工具。

选民：“尊嘟假嘟”？

随着人工智能的飞速发展，印度政党也玩起了新花样。他们利用ChatGPT等AI聊天机器人，模仿政党领导人的声音与选民沟通。

印度媒体MediaNama的编辑帕瓦透露，这种“明星效应”在印度特别受追捧。毕竟，在印度，就连模仿名人的表演者都能吸引一大波合影狂热粉。想象一下，当选民接到一个电话，那头的“总理”不仅声音逼真，还表现得像是认识自己，这种亲切感足以让选民心潮澎湃。

不过，这也带来了一个新问题：在这个假新闻泛滥、谣言频发的时代，选民该如何分辨真伪？

近年来，印度的社交媒体上已经多次因为谣言而引发致命暴力事件。专家们警告说，目前对于AI助选的监管措施还不够完善，随着AI技术的不断发展和普及，选民将越来越难以区分真实信息和AI生成的虚假信息。

印度两大主要政党——印人党和国大党，更是在这场AI大战中互相指责对方利用AI深伪技术散播选举相关的不实信息。而这种情况不仅仅局限于印度。

据《今日美国报》报道，布鲁金斯学会技术创新中心的高级研究员达雷尔·韦斯特预测，2024年的美国大选将会迎来一场由AI生成的虚假信息海啸。他担忧地表示：“我们已经看到了这种情况，而且情况只会变得更糟。”

当地时间1月21日，新罕布什尔州一些选民称接到了“拜登总统”的自动留言电话，告诉接听者不要给特朗普投票

这种担忧并不是美国的专有现象。事实上，包括美国、俄罗斯、印度、英国、墨西哥、欧盟等在内的70多个国家和地区，今年都将迎来重要的选举活动，这些选举的影响范围覆盖了全球超过半数的人口。

在全球地缘政治冲突和经济放缓的大背景下，这些选举的竞争愈发激烈。而人工智能生成的虚假信息，无论是文本、声音、照片还是视频，都被视为这些选举面临的最严峻挑战。

尽管人工智能生成的虚假信息对选举的潜在破坏性令人担忧，但一些专家指出，过度渲染这种风险可能会让选民对所有选举信息产生不信任感，这反而可能对选举活动产生不利影响。

AI造假的破坏力有多大？

AI在选举中的巨大影响已经引发了政界和科技界的高度关注。

由人工智能驱动的工具，可以创建人的数字复制品。

在今年的一场听证会上，美国参议员们纷纷就AI是否可能操纵选举的问题向专家提出质疑。

其中，密苏里州共和党参议员乔什·霍利直言不讳：“我不希望我们国家的劳动人民和儿童成为生成式AI技术的小白鼠。”他强烈呼吁对AI模型实施白名单式准入管理。

同样对此深感忧虑的还有明尼苏达州民主党参议员艾米·克洛布查，她担心选举广告中过度依赖AI技术的现象并未得到足够的关注和警惕。

曾在美国前总统特朗普竞选团队担任数字总监的泰迪·戈夫也表示：“虽然AI尚未创造出全新类型的虚假信息，但它却使得虚假信息的生成更加容易、迅速和廉价，其潜在影响可谓深远。”

谷歌前首席执行官埃里克·施密特更是直言不讳地警告说：“2024年的选举可能会陷入一团糟，因为社交媒体平台难以有效保护我们免受AI生成的虚假信息的侵害。”

创造了Chatgpt的OpenAI首席执行官山姆·阿尔特曼也表示：“我对AI对未来选举产生的影响感到紧张，至少在大家习惯AI之前，这种影响将是巨大的。”

谷歌CEO桑达尔·皮查伊也强调，社会必须为人工智能的快速发展做好准备，同时他指出虚假信息、视频和图像所带来的问题远比人们想象的严重，其破坏力更是难以估量。

美国CNBC报道，不久前达沃斯世界经济论坛发布的《2024年全球风险报告》中，将AI生成的错误和虚假信息列为全球十大风险之首，甚至超过了气候变化、战争和经济疲软等重大问题。

该报告是基于对1400多名全球专家、政策制定者和行业领导者的调查结果撰写的。

世界经济论坛执行董事扎希迪表示：“这些错误和虚假信息的快速传播将进一步加剧全球秩序和经济的不确定性，各国领导人必须共同应对这一挑战。”

或许随着AI技术的进一步发展和应用，全球的政治选举将面临更多的挑战和颠覆性后果。

科睿研究院最早成立于中国香港特别行政区，是国际科学与人文科学院（International Core Academy of Sciences and Humanities）建设的综合性研究机构，致力于搭建学术界与社会间高效沟通的桥梁，将前沿的学术研究成果赋能至新时代社会发展。

作为科睿研究院主办的官方号，我们致力于打造高质量知识交流平台：持续推出与当代社会相关的洞察分析与时事评论，定期发布高质量专栏文章与交流活动，并推送有价值的学术资源和最新资讯。同时，学院积极欢迎读者们的踊跃来稿，参与我们的知识传递之旅中！

往期推荐

1

2

3

4

欢迎转发&点赞哦～